A Systematic Study of Semantic ID Spaces for Generative Information Retrieval
生成式信息检索语义 ID 空间的系统性研究
🧭 生成式检索 · Semantic ID 设计空间 ★ 深度解读
Artefact Research Center · LERIA, Angers University
统一 PQ 与 RQ 的语义 DocID 设计空间，发现混合 PQ×RQ 最优，Uniqueness Ratio 是训练前关键门槛
📌 工作参考价值（4 点）
- 在生成式推荐/检索中构建 Semantic ID 时，先计算 Uniqueness Ratio U：若 U<0.9，下游 MRR/Recall 会显著崩塌，应作为训练前的硬性门槛，避免浪费训练资源。
- 短 DocID 或强压缩 token 预算下，优先选择端到端训练的 R-VQ，而不是分层 k-means；R-VQ 码本使用更均匀，能保持 U 和检索性能，例如 M=4 时 R-VQ 仍达 44.0 MRR@10，而 PQ×R-VQ 只有 26.2。
- 可尝试混合 PQ×RQ 结构：将 item embedding 先分成 C 个并行子空间，再在每个子空间做 L 层残差量化，同等 token 预算下（如 C=2, L=8）可超过纯 PQ 和纯 RQ，适合电商物品多模态 embedding 的语义 ID 设计。
- 用训练前的结构诊断指标（Uniqueness、Normalized Entropy、Shared Semantic Similarity、Contrastive Alignment Preservation）快速筛选 DocID 空间，尤其要区分 hierarchy 与 parallelism 的结构偏好，选择对应度量，避免只靠端到端训练评估。